Vào đời nhà Kim (1115–1235), Hoàng đế Kim Chương Tông ra lệnh đào hồ phía bắc vào năm 1189. Phần phía bắc của Trung Nam Hải là Hồ Thái Dịch, có cung điện liền dính tên "Cung Đại Ninh" (大寧宮). Đời Nguyên từ năm 1271 đến năm 1368, Hồ Thái Dịch được gộp vào Hoàng Thành và mở rộng mà bao phủ xấp xỉ diện tích của Bắc Hải và Trung Hải bây giờ. Ba cung điện được xây xung quanh hồ.

Sau khi nhà Minh dời đô đến Bắc Kinh vào năm 1403 theo lệnh của Hoàng đế Vĩnh Lạc, Tử Cấm Thành bắt đầu được xây dựng vào năm 1406. Vì cung điện nhà Minh nằm ở phía nam của cung điện nhà Nguyên nên Nam Hải được đào ở phía nam của Bắc Hải. Đất đào hồ cùng đất đào hào được chất đống thành non Cảnh Sơn, là ngọn đồi ở phía bắc Tử Cấm Thành. Lúc đó, ba hồ thông nhau và gọi chung là Hồ Thái Dịch, có cầu phân chia. Ba hồ là một phần của ngự vườn rộng lớn tên Tây Uyển ở phía tây của Tử Cấm Thành. Giữa đời nhà Minh, Hoàng đế Trịnh Đức và Gia Kinh xây dựng nhiều cung điện, đền thờ Đạo giáo, đình xung quanh các hồ và sinh sống làm việc ở đây lâu hơn Tử Cấm Thành.

Nhà Thanh cắt giảm ngự vườn xuống thành khu vực vây quanh ba hồ và có bức tường nhỏ bao bọc. Vài hoàng đế cho xây dựng các đình nhà dọc theo bờ hồ, nơi họ làm việc nước vào mùa hè. Lúc Thái hậu Từ Hi cầm quyền, cả Thái hậu lẫn Hoàng đế đều thường xuyên sống ở Trung Nam Hải, đến Tử Cấm Thành chỉ để giữ lễ nghi.

Trong cuộc Quyền loạn, Trung Nam Hải bị quân đội Nga chiếm, hầu hết di tích cùng đồ trang điểm trong khu nhà đều bị cướp. Về sau, chỉ huy của Liên quân Tám nước cũng sống ở Trung Nam Hải. Khi Phổ Nghi lên ngôi Hoàng đế, cha ông, làm Nhiếp chính vương, sống ít lâu ở Trung Nam Hải.[6]

Trung Nam Hải tiếp tục giữ trọng tâm chính trị quan trọng vào thời Dân quốc, làm phủ tổng thống của Viên Thế Khải cho Chính phủ Bắc Dương từ năm 1911.[7] Nguyên là Thế Khải muốn đặt chính phủ ở trung tâm quyền lực trên lịch sử là Tử Cấm Thành, nhưng không được vì Phổ Nghi còn sống ở đó. Cổng chính hiện tại là Cổng Tân Hoa do Viên Thế Khải cho dựng nên và "nhà cổng" từng là đình nằm trên bờ phía nam của Nam Hải, sát bức tường phía nam. Trước đây, nếu muốn vào Trung Nam Hải thì phải đi qua Tử Cấm Thành, nên Thế Khải muốn tạo ra lối vào trực tiếp từ Đường Trường An. Vì thế nên đình được sửa thành nhà cổng, các bức tường gần đó bị cắt bớt, mà có các bức tường góc cạnh gần lối vào của ngày nay.[8] Lúc còn đang ở ngôi Hoàng đế, Thế Khải đổi tên Trung Nam Hải thành Cung Tân Hoa (新华宫). Khi chính phủ dời đô xuống Nam Kinh, Trung Nam Hải trở thành công viên.[9]

Sau khi Đảng Cộng sản chiếm được Bắc Kinh vào năm 1949, các lãnh tụ cấp cao tính dời trụ sở về thủ đô cũ, nhưng lúc đầu không đồng lòng về trung tâm công tác. Mao Trạch Đông và những lãnh tụ đảng khác đặt trụ sở chính ở Công viên Hương Sơn tại ngoại thành, Chu Ân Lai thì muốn chọn Nhà Hoài Nhân ở Trung Nam Hải, một phần để tổ chức Hội nghị Hiệp thương Chính trị Nhân dân Trung Quốc khóa một, nhưng ông không gợi ý ở các cuộc họp đảng. Trong những tháng đầu tiên, Ân Lai đi xe vào Bắc Kinh để làm việc, nhưng vì đường kém, nên phải thường ở lại Trung Nam Hải thay vì về nhà vào buổi tối. Chính Diệp Kiếm Anh bấy giờ là thị trưởng lâm thời của Bắc Kinh sau cùng đề xuất Trung Nam Hải làm trụ sở đảng cho được an ninh. Ban đầu, Mao Trạch Đông quyết không chịu chuyển do không muốn bị đánh đồng như hoàng đế. Mặc dù vậy, song Chu Ân Lai cùng đa số Bộ Chính trị tán thành ý kiến. Từ đó, Trung Nam Hải là trung tâm hành chính chủ yếu của Trung Quốc.[10][11]

Chính phủ Trung Quốc cho xây dựng nhiều nhà cửa ở trong Trung Nam Hải mà ngày nay có thể thấy được. Nơi này có đặt Ủy ban Trung ương Đảng Cộng sản Trung Quốc và Quốc vụ Viện. Các lãnh tụ thuở ban đầu như Mao Trạch Đông, Chu Ân Lai và Đặng Tiểu Bình đều sống ở trong Trung Nam Hải.[4]

• Tranh cuối thế kỷ 18 cho thấy Quân Thanh thắng trận từ Chiến dịch Đại Tiểu Kim Xuyển về được tiếp đón (1771–1776) ở Gác Tử Quang tại Trung Nam Hải
• Thái hậu Từ Hi cùng đầy tớ trên thuyền ở Trung Hải vào đầu những năm 1900.
• Leo Karakhan, Đại sứ Liên Xô đóng ở Trung Quốc 1923–26, diễu hành bên ngoài Cổng Tân Hoa của Trung Nam Hải.
• Lãnh tụ Trung Quốc, từ bên trái, Chu Đức, Mao Trạch Đông, Trần Vân and Chu Ân Lai bên ngoài Gác Tử Quang vào năm 1954.
• Chủ tịch Trung Quốc Hồ Cẩm Đào cùng Tổng thống Hoa Kỳ George W. Bush và cựu Tổng thống Hoa Kỳ George H. W. Bush ở Trung Nam Hải vào ngày 10 tháng 8 năm 2008.